Училищата използват AI наблюдение за защита на учениците. Това също води до фалшиви аларми - и арестува
Лесли Матис знае какво сподели, че щерка й е неверно. Но тя в никакъв случай не е очаквала, че 13-годишното момиче ще бъде задържано за това.
Тийнейджърката направи обидна смешка, до момента в който разговаряше онлайн със съучениците си, задействайки софтуера за наблюдаване на учебното заведение.
Преди да завърши още сутринта, осмотокласникът на Тенеси беше подложен на арест. Тя беше разпитана, претърсена и прекара нощта в пандизчията, споделя майка й.
По-рано денем приятелите й бяха дразнели младежа за загорялата й тена и я нарекоха „ мексиканска “, макар че не е по този начин. Когато другар попита какво възнамерява за четвъртък, тя написа: „ В четвъртък убиваме всички Мексико. “
Матис сподели, че мненията са „ неверни “ и „ глупави “, само че подтекстът сподели, че те не са опасност.
„ Това ме накара да се усещам, това е Америка, в която живеем? “ Матис сподели за ареста на щерка си. „ И точно тази глупава, глупава технология просто минава през събиране на инцидентни думи и не гледа на подтекста. “
Системи за наблюдаване в американските учебни заведения от ден на ден следят всичко, което учениците пишат в учебни сметки и устройства. Хиляди учебни региони в цялата страна употребяват програмен продукт като Gaggle и Lightspeed Alert, с цел да наблюдават онлайн дейностите на децата, търсейки признаци, които могат да наранят себе си или други. С помощта на изкуствения разсъдък технологията може да се потопи в онлайн диалози и неотложно да уведоми както учебните чиновници, по този начин и правоприлагането.
Преподавателите споделят, че технологията е избавила живота. Но критиците предизвестяват, че това може да криминализира децата за небрежни думи.
„ Той е рутинизиран достъп до правоприлагането и наличието в живота на студентите, в това число в дома им “, споделя Елизабет Лаърд, шеф в Центъра за народна власт и технологии.
Училищата натрупват зоркост за закани
В страна, изморена от учебни стрелби, няколко щата са поели по -трудна линия за закани за учебните заведения. Сред тях е Тенеси, който одобри закон за нулева приемливост през 2023 година, който изисква опасност от всеобщо принуждение против учебно заведение, което би трябвало да бъде докладвано неотложно на органите на реда.
13-годишното момиче, задържано през август 2023 година, е изпращало известие с другари на чат функционалност, обвързана с учебния си имейл в междинното учебно заведение на Fairview, което употребява Gaggle, с цел да следи сметки на учениците. (Асошиейтед прес задържа името на момичето, с цел да отбрани поверителността си. Училищният квартал не отговори на искане за коментар.)
Взето в пандиза, младежът е разпитан и претърсен в стриптийз, а родителите й не са били позволени да приказват с нея до идващия ден, съгласно правосъдно дело, което са завели против учебната система. Тя не знаеше за какво родителите й не са били там.
„ Тя ми сподели по-късно:„ Мислех, че ме мразиш. “Такъв ви преследва “, сподели Матис, майката на момичето.
Съдът разпореди осем седмици домакински арест, психическа оценка и 20 дни в различно учебно заведение за момичето.
изпълнителният шеф на Gaggle, Джеф Патерсън, съобщи в изявление, че учебната система не употребява Gaggle по метода, по който е предопределен. Целта е да се намерят ранни предупредителни знаци и да се намесят, преди проблемите да ескалират до органите на реда, сподели той.
„ Иска ми се това да се третира като преподаващ миг, а не като миг на правоприлагане “, сподели Патерсън.
Частните чатове за студенти се сблъскват с непредвиден надзор
Студентите, които считат, че беседват частно измежду приятелите, постоянно не осъзнават, че са под непрекъснато наблюдаване, съобщи Шахар Паш, юрист по обучение във Флорида.
Едно тийнейджърка, която представляваше, направи смешка за стрелбата по частна фотография на Snapchat. Автоматизираният програмен продукт за разкриване на Snapchat взе коментара, компанията алармира на ФБР, а момичето беше задържано на учебни площадки в границите на часове.
16 -годишната Alexa Manganiotis съобщи, че е стреснала от това какъв брой бързо се следи софтуерът за наблюдаване. Училището на изкуствата на West Palm Beach, което тя посещава, предходната година пилотира сигнал за Lightspeed, стратегия за наблюдаване. Интервюирайки преподавател за своя учебен вестник, Алекса откри, че двама възпитаници един път са въвели нещо заплашващо за този преподавател на учебния компютър, след което го изтри. Lightspeed го подвигна и „ те бяха отнети като пет минути по -късно “, сподели Алекса.
Тийнейджърите се сблъскват с по -стръмни последствия, в сравнение с възрастните за това, което пишат онлайн, сподели Алекса.
„ Ако възрастен направи супер расистка смешка, която заплашва на техния компютър, те могат да го изтрият и те няма да бъдат задържани “, сподели тя.
Ейми Бенет, шеф на личния състав на Lightspeed Systems, сподели, че софтуерът оказва помощ и на захранващите учебни заведения „ да бъдат самодейни, а не осъдени “, като разпознават ранните предизвестия за балониране, самоуправление, принуждение или корист. в отговори на рецесии на психологичното здраве. В учебните заведения на окръг Полк във Флорида, област от над 100 000 възпитаници, програмата за сигурност на учебното заведение получи близо 500 сигнали за гаф за четири години, обявиха чиновници на обществения съвет на образованието. Това докара до 72 случая на несъзнателно хоспитализация според Закона за Бейкър, държавен закон, който разрешава на управляващите да изискват оценки на психологичното здраве за хората против тяхната воля, в случай че съставляват риск за себе си или на други.
„ Наистина огромен брой деца, които претърпяват несъзнателен обзор, го помнят като в действителност травматично и нездравословно прекарване - не нещо, което им оказва помощ в тяхното психологично здраве “, споделя Сам Бойд, юрист от Южния закон за бедността. Училищните региони на Полк и Уест Палм Бийч не предоставиха мнения.
Анализът демонстрира висок % на подправени аларми
Информация, която може да разреши на учебните заведения да оценят успеваемостта на софтуера, като да вземем за пример скоростта на подправените сигнали, се държат тясно от софтуерните компании и недобивни обществено, в случай че учебните заведения сами наблюдават данните. Област в скорошен 10-месечен интервал. Но съвсем две трети от тези сигнали бяха счетени от учебните чиновници за не-издания-включително над 200 подправени аларми от домашната работа на учениците, съгласно разбор на Асошиейтед прес на данните, получени посредством поръчка за обществени записи.
Учениците в един клас по снимка бяха извикани в офиса на шефа поради опасенията, че Gaggle са разкрили Nudity. Снимките бяха автоматизирано изтрити от Гугъл Drives на студентите, само че студентите, които имаха аварийни копия на байрак изображенията на личните си устройства, демонстрираха, че това е подправена тревога. Областните чиновници обявиха, че по-късно поправят настройките на софтуера, с цел да понижат подправените сигнали.
Наташа Торкзабан, приключил през 2024 година, съобщи, че е била сложена под знака за редактиране на есето на колежа на другар, защото има думите „ психологично здраве. Къде сме сега “, сподели Торкзабан. Тя беше измежду група студентски публицисти и художници в гимназията Лорънс, които предходната седмица заведоха дело против учебната система, като твърди, че Gaggle ги подложи на неконституционно наблюдаване.
Служителите на учебните заведения обявиха, че одобряват съществено опасенията по отношение на Gaggle, само че също по този начин споделят, че технологията е разкрила десетки непосредствени закани за самоубийство или принуждение.
„ Понякога се постанова да гледате на търговията за по -голямото богатство “, съобщи членът на Съвета на образованието Ан Костело на съвещание на борда на юли 2024 година
Две години след тестването им Матис сподели, че щерка й се оправя по -добре, макар че към момента е „ ужасена “ да се натъкне на един от учебните офицери, които я арестуват. Едно блестящо място, сподели тя, беше състраданието на учителите в различното учебно заведение на щерка й. Отнеха време всеки ден, с цел да оставят децата да споделят своите усеща и фрустрации, без преценка.
„ Сякаш просто желаеме децата да бъдат тези дребни бойци и не са “, сподели Матис. „ Те са просто хора. “
___
Този отчитане прегледа съвещанията на учебния съвет, оповестени в YouTube, вежливост на DistrictView, набор от данни, основан от откривателите Тайлър Симко, Мирия Холман и Ребека Джонсън.
___
Асоциираното обучение на преса, получава финансова поддръжка от голям брой частни фондации. AP е само виновен за цялото наличие. Намерете стандартите на AP за работа с филантропии, лист на последователи и финансирани области за покритие на AP.org.
